蒋昌建对话校友梁晓声等：AI与人类的未来

第七届世界智能大会闭幕式于5月20日下午在国家会展中心（天津）举行。本次闭幕式以“变——空间之变、时代之变、应对之变”为主题，紧密围绕人工智能和实体经济深度融合，展望智能科技发展前沿，探寻智能新时代。会上，复旦大学国际关系与公共事务学院副教授、复旦发展研究院“中美友好互信合作计划”首席专家蒋昌建作为主持人，与复旦大学校友、中国著名当代作家梁晓声，科大讯飞副总裁、研究院院长刘聪，以及中国政法大学数据法治研究院教授、博士生导师张凌寒展开了一场艺术、技术和学术的对话，共同探讨通用人工智能未来的发展方向。我们将视频及文字稿编辑整理如下，以飨读者。

蒋昌建：今天AI大模型非常火爆，引起世人的高度关注，也有很多专家和学者提出了他们的意见和看法。比如说有人认为AI 大模型只不过是把数据死记硬背下来，并没有真正的像人这样有非常强的理解的能力，算不上是高智能。也有的学者认为，人类智慧的核心就在于会思考，会判断，会分析，会创造。而 AI大模型也好，AI人工智能也好，要做到这一点还有很长的路要走。有一位AI大模型的专家就说，AI大模型是基于深度学习的 NLP 这样的一种算法模型，永远不会像人那样有幽默感，同时也没有办法像人那样有同理心，也没有办法欣赏艺术，也没有办法解读文学作品它语言背后的那些浓烈的情感。当然他也不会感到孤独，更不会像我们年轻人那样去谈恋爱。

听起来好像这些意见都有道理，但是我们会发现，像这些我列举的意见恰恰是AI大模型和AI人工智能他们亲口说出来的。所以我们就不免要问一个问题，那就是人和AI人工智能和谐相处吗？AI人工智能或者是AI大模型是否意味着人工智能已经对人类产生危险了? 那么接下来我们就进入到一个非常有趣的话题讨论，那就是碳基生命和硅基生命之间如何相处。接下来参与讨论的是重量级的嘉宾，他们分别是中国著名当代作家梁晓声先生，科大讯飞股份有限公司副总裁、研究院院长刘聪先生，中国政法大学数据法治研究院教授、博士生导师张凌寒教授。我们会从艺术、技术和学术三个角度，我们共同来探讨人工智能未来发展的方向。我们有请三位嘉宾上台，掌声有请。

蒋昌建：张教授，当您看到我在跟我的拟真机器人对话的时候，您会产生哪些想法？

张凌寒：刚才蒋老师在跟机器人对话的时候，我已经听到了身后观众们发出倒吸一口气的声音。我相信在座的观众可能跟我的感受是一样的，看到蒋老师跟自己的数字分身对答如流，侃侃而谈，真的感觉是未来已来。但是我相信这个黑夜给了蒋老师黑色的眼睛，但是黑夜还没有给机器人黑色的眼睛。我们相信现在人工智能可能还不具备像人类一样的慧眼，我们特别希望未来有一天它能像人类一样去寻找光明。

蒋昌建：从我跟他的对话当中，您是否发现我们应该就某些课题来讨论讨论。

张凌寒：当然了，实际上人工智能最近的火爆，我相信也引起了大家的广泛关注，那么我想人工智能给社会带来的改变是非常深刻而变革性的。我有一个观点就是，实际上未来人工智能即将成为我们这个社会的数字基础设施，也就是说它将深度地影响社会生产。影响社会的方方面面。那么这样去看的话，那么它给社会带来的影响可能远中近会分为很多层次。

蒋昌建：首先我们今天要讨论的一个非常重要的影响，梁先生在这就是对创作本身的影响，此外还涉及到包括知识产权的问题，包括怎么识别是机器创作还是咱们人创作的问题，还有机器创作和人创作我们怎么赋予它价值衡量的问题，这一系列问题都很重要。我们先把这个问题放在一边，我们先讨论技术问题。

我们旁边坐的是刘聪先生，讯飞星火是您参与开发的是一个AI大模型，或者是说 AI人工智能，刚才我跟他对话当中就有你们工作的结晶。接下来我就想问一下在AI人工智能或者是AI大模型方面，这个技术突破到今天，已经到了什么样的一个阶段？简短的给我们介绍一下。

刘聪：讲之前我稍微讲一句，我不知道蒋老师记不记得了，因为今天看到蒋老师特别亲切。2020年我们1024大会的时候，当时您也是主持我们大会，当时我们是用虚拟人，您还在说，这个虚拟人能帮你干嘛？所以我们今天看到实体了。

回到刚才讲的问题，其实应该来说大模型过去几年一直在发展，当然客观来说，其实在那个阶段国内外都有很多的投入，但是并没有实现。就是去年年底的现象级现象，2022年10月30号OpenAI 发布的ChatGPT，它真正我们实现了智能涌现。原来很多完成一个任务，你得做一个定制系统，一个教育的系统、医疗的系统，或者说我有一些样本看不见，我就不行了，但这一次实现了这样一些对新样本的这样一些内容。所以在这个基础之上，其实的确如刚才张老师也提到，我们就能深刻地改变生产和生活的方式。所以经过从10月30号到现在可能正好大概半年的时间，我们也看到了日新月异，每天都能看到新的“卷”。所以为什么我们讯飞5月6号做了星火这个大模型，其实也是想站在中国的角度，就是中国我们要有自己的真正的对标 ChatGPT这样一个能力的通用大模型。

蒋昌建：您刚才的表述充分地展现了中国科技工作者的自信。但是，说是一回事，做又是另外一回事。我们来检验一下好不好？给您布置一个任务，我这边已经有考题了。

梁先生您看这个任务合适不合适？我们现场来测试一下AI大模型的创作能力。接下来我们就请讯飞星火的模型，模仿梁先生笔下的小说《人世间》的风格，续写一篇短文。模仿完以后，梁先生你不要因为他坐在你边上，你要实话实说，它模仿得怎么样？好不好？

刘聪：这个有点难度，因为梁先生已经登峰造极了。但是我觉得现在我们的长文本生成能力还是不错的，可以挑战一下的，还是很有信心。

蒋昌建：好，我们来模仿一段，您给我们解读一下它怎么模仿。

刘聪：对，它其实是这样，就是其实星火它可以问任何的问题，这只是我们能力之一，叫长文本的生成，多任务多风格。所以上面这段字输入完之后，它可以补一句，说用梁晓声先生的风格来给上面这篇文字续写一下。当然它可以续写，也可以从头生成。

蒋昌建：所以后面这一段是他续写的。

刘聪：是的。

蒋昌建：梁先生您认真看一下，续写的咋样？

刘聪：而且它每一次生成都不一样，因为它背后的大模型是每次都是用不同的方式去续写。

梁晓声：我已经看过了，亲爱的同志。我还真觉得续写得不错。因为我们来判断一段文字好或者不好，就像鲁迅先生所说的，首先是从修辞上看用字是否简练，就有没有多余的和啰嗦的话。我们看到它是简练的，我们不太能够从这样的行文中再勾去几个字，说这些话是完全多余的，勾去无妨。另外的话，它依然保持着（关联性），就是后来改造过的文本和前先前的文本之间是有关系的。所以我觉得自己再写这么一段的话也就这个水平。

蒋昌建：哈哈哈，来，掌声鼓励一下。当然你也谦虚了。好，接下来，您别介意啊。梁先生，简练，而且上下逻辑贯通，而且您刚才也很客气，说如果你要续写的话也就这个水平。我接下来追问一下，从文学价值的角度来讲，您觉得有没有需要完善的部分？

梁晓声：因为我们看的是一段文字，而不是一篇完整的文章。完整的文章我们可能从起承转合方面是来判断它，和从他传达的情感的、思想的元素来判断它。那就这一段话我觉得是无可挑剔的，还只能是从修辞的方面。另外的话，我们也感觉到了这些文字有一定的温度，对吧？因为他谈到邻里之间、社区、集市等等。这里可能有一个问题，就是机器IP，它写一段文字是一回事，写一篇文章是一回事，创作出一篇小说的作品，它又是一回事。写一首五言绝句是一回事，要写完整的我们可以称得上是自由体诗的，它就是另外一回事。那再进一步说，你在对话的时候，其实我想到了什么呢？就首先这种机器仿生人，它是可以成为我们交流思想心得的最好的对象。如果刚才不是你，而是孔子，是苏格拉底，是庄子，我们的代入感就会更强。而且我个人觉得我也会受益，尽管我自己觉得还读了一些书，因为我们的头脑中无论你读多少书，你所装入的知识的容量绝对比不上它。因此他可能是古今中外我们所有的思想先贤的至少是名言名句，它都储存在那了。那有一部分甚至绝大部分是我们不知道的，我们知道的只不过是几百分之一，所以我们跟这样的一个大脑来进行思想交流的话，他至少能把我们没曾接触过的那些新鲜的语言提供给我们。那我觉得这既是享受，也是一种知识的接受。

蒋昌建：明白，好，谢谢梁先生。接下来这个问题就想问一下张教授，刚才续写的那个部分，是在对梁先生的小说做了分析之后续写的，请问这个产权算谁的？

张凌寒：蒋老师真是问到了现在法学界都在集中讨论的一个热点问题，其实真的是非常难以界定，可能说它更决定于我们的一个价值取向。因为大家也都知道为什么 AI 有这样大的能力，就是因为他站在巨人的肩膀上进行创作。像刚才梁老师说的，可能他学习了苏格拉底，学习了孔子，学习了成千上百的人类智慧的结晶。那么他产出的东西能够说是他自己生成的吗？比如说我们认为什么东西有著作权？是因为它有独创性，它是人类的智力成果，这是我们保护它的主要原因。那么机器生成的内容有没有独创性？有没有智力成果？这现在是法学非常关注的一个问题。但是目前已有的世界范围内的实践来说，一般不会认为给人工智能生成的这样一些作品去给他一个著作权的保护。我们更是希望这种精神，就是希望能够保护原创，像杨老师一样的作者他们的智力成果能得到法律的保护。

蒋昌建：是，这是从一个法学专业的角度。接下来我这个问题直接问文学创作者，如果刘聪先生在你的作品读完了以后，分析完了以后，续写了《人世间2》，您会向他追索产权著作权吗？

梁晓声：即使我不追索的话，出版社也会，剧组也会。因为我们的这个仿生大脑，它可以把 3 卷的《人世间》进行它认为合理的压缩，对吧？它甚至还可以再展开。但是这个大脑它有一个什么好处？我个人觉得他以后会是创作者的，甚至创作团队的最好的助手。它可以在一方面做得很好，就我们有时候在写作的时候，不止在别的地方有人已经发表过这样的作品了，那么它会总结出来哪一类题材，哪一类风格，已经很多很多了。哪一个桥段已经用得成为俗套了，因此当你跟它对话的时候，它首先告知你了，这时就你就有一个避开。而且我们创作是一定是要避免趋同，所以我觉得将来比如一个剧院创作一个新的剧本的时候，这剧本比如是探案方面的，那它一定会把各种各样探案方面的经过统计的数据告诉你，就能够做出决策。我们还可以从哪个角度来写。

蒋昌建：好的，接下来这个问题想问一下刘聪。你也不要因为梁先生在这您就客气，梁先生刚才所有的评论如果喂给机器人的话，他都可以再学习，使得它的创作更上一层楼。所以刘先生，这个问题问您，您觉得未来的讯飞星火，能够去抢梁先生的饭碗吗？

刘聪：首先给一个肯定的答案——肯定不会，我说几点。第一个，我感觉梁老师应该是深入研究过ChatGPT事情，所以刚刚梁老师其实讲的那些压缩扩展其实在我们这里面是非常专业的一些术语。其实刚才杨老师也说了整段的，甚至整本书的模仿，可能后来会留下《人世间1》的一些经典的人，它可能又会造出一些新的情节，引入新的人，这其实就有一个压缩和扩展的过程。所以不只是这一次，讯飞其实一直以来在交易、医疗等很多方面，我们应该在可能五六年前就说过这样一句话，说未来不是属于AI的，而是属于掌握了AI的新人类。所以我想这件事情到现在我认为依然存在，只是客观来讲，从我们对技术的发展，这次认知智能大模型带来的智能涌现推动了通用人工智能的技术阶跃，所以客观来说，从我们对技术跟对产业，包括我们自己模型推出来之后大家的热情来看的话，它能改变除了刚刚说的我们的创作，可能有文学创作，有刚才张老师说的图片，它同样也存在这个版权的问题，以及我们用于代码的编程，都会上一个大的台阶。所以只是说这一次它能带来的社会变革或者产业的变化会更广、更深。但是我觉得未来一定还是之前那套逻辑。

蒋昌建：接下来一个问题，你用一句话回答我，你刚才讲了未来是属于掌握 AI 的新人类，这个新人类是人机交互过程当中建构的新人类还是机器不参与建构的新人类？一句话回答我，是还是不是。

刘聪：首先是人，是真人。

蒋昌建：当然这个我不否认，是不是在人机互动当中建构出来的新人类。

刘聪：可以这么理解，他要去理解适应这样一个新的东西，然后把它当成自己的助手。

蒋昌建：好的，那么接下来就想问一下张教授，我们对话了那么多，那么在生成式的人工智能方面，一方面我们要让他们发展，另一方面我们要考虑他健康安全的发展。所以从一个法律工作者的角度来讲，你最近在思考什么？

张凌寒：在回答您的问题之前，想给大家讲一个小小的故事。在现代汽车诞生了50年之后，三点式安全带才被发明出来，大家可以想象在这50年间人类付出了哪些没有办法挽回的生命的代价，那所以说我们现在看人工智能的发展，就可以看到，技术的发展如此之快，我们对于安全的重视如何跟上，可能就成了摆在我们面前的一个问题。

以前法律和技术的这个代差可能是十几二十年，现在这个时间在被越来越缩短。在今年年初的时候，生成式人工智能刚刚引起全球范围内的广泛关注，4月 11号当天，中美两国的监管部门就同时发布了有关生成式人工智能AI的这种监管的措施，向社会公开征求意见。所以我们可以看到新兴技术领域的立法进度加快，已经成为一个全球的趋势，包括现在欧盟、美国也都有更进一步的监管动作。相信发展和安全肯定是我们这个领域立法的一个主题。但是在这个阶段我们可能更要以发展为导向，因为人工智能其实就像一个小孩一样，它并不知道善恶。换句话说，技术是中性的，但是使用技术的人是有价值观的，我们就像教导孩子一样，要让它在初期就知道什么是好的，什么是坏的，这样才能够建立我们国家的这样一个治理体系。

可以说在早期在比如说数据保护、个人信息，我们国家在这方面是一个跟跑者，但后来到了算法深度合成领域，我们就成了一个并行者，到现在生成式人工智能这个领域立法，我们可以成为了领跑者。可以说在这个领域去制定规则，也可以去抢夺我们国家在规则制定领域的话语权，也是一个国际竞争力的体现。

蒋昌建：好的。那么最后一轮问题。因为我们 AI大模型或者是 AI人工智能一经问世的时候，引起世人广泛的关注，那么很多人就讨论这个问题，人工智能再这么发展下去可了不得了，人类怎么自处？就像刚才我问我的那个替身一样的，我就想问一下梁先生，人工智能发展如此之快，如此之迅速，您担忧吗？

梁晓声：我不担忧。

蒋昌建：好，这是什么原因呢？

梁晓声：是这样的，我们的戏剧、电影都是从文学作品延伸出来的，而文学作品它是通过我们语言的字词句的组合。那么作为仿生大脑，它储存了多少字词句？它只能在这个基础上去重新组合，而他自己不能在组合的过程中派生出新的词句，而这个新的词句简单来说，我们中国语言已经有 3000 多年的应用史了，但是我们直到最近几年，在形容小动物非常勇猛的时候，我们说“奶凶奶凶的”。这是一种创作。在3000多年应用的时候没有，电脑它是不会产生的。我们现在的网友们又创造了一个词，叫做“笑死了”，我们叫做“笑不活了”，这种幽默也是机器人不能的，因此更高级的机器人它可能会产生，比如说像落霞与孤鹜齐飞，秋水共长天一色，它也会产生大漠孤烟直，长河落日圆。但是它是不是会产生苟利国家生死以，岂因祸福避趋之？因为后来的话是一个活体的，有血有肉的，有家国情怀的人在产生。

蒋昌建：没错，所以人特殊的生命体验所激发出来的那种创造力在文字上的表达，目前看机器还是没办法代替。所以我接下来问一下工程师，你觉得对吗？还是说“奶凶奶凶的”“笑不活了”我也可以让机器学习。

刘聪：其实我经常讲，我们做技术、做研究的人，他得很清楚地知道知识边界，我能做什么，不能做什么？未来能做到什么？因为我们刚刚说了，其实现在ChatGPT 领先一头，我们再去追赶，当然未来要超越。客观来说，其实刚才梁老师举的一些例子，如果从文字层面，至少“笑不活了”这些东西是肯定是能解决的。甚至说我们刚才提到的我输一段文字到底是什么情感？它是可以分析出来的，这是当前的确技术是达到了。但是的确，举个例子，在文学上，一个普通的作家和梁老师对他的指导给它带来提升就是不一样的。换而言之就是说其实机器未来能做什么，某种程度跟对它的指导是有关系的。所以这个问题的回答就是，梁老师说的有一部分内容其实现在是可以实现的。

梁晓声：我可以问他一个问题吗？我们写作者在创作的时候有一种本能的自愿要修改，就一句话出来的时候可能会勾掉几个字，对，使他达到自己最佳认可的愿望，或者用橡皮完全涂掉然后再修改一遍。哪怕一篇小文章形成了，可能要压 两天，然后两天之后会有了新的感觉。那么机器人它是不是会有这种主动修改的？还是说一次成型？他没有这个意识，当然需要我们给他输入这种意识。

刘聪：简单回答一下。我刚刚说的这个例子，他现在所有的文本全是随机生成的，诊断重新生成一遍，完全不一样，其实是可以实现的。我这段不满意，给我把它变成一个更好的修辞方法。甚至这个方面我们现在已经在我们学习机用了，孩子这段作文描写的不够生动，它有一个润色功能帮助你针对性的局部修改，真的是可以实现。

蒋昌建：好，我要问您的最后一个问题是，您作为一个工程师，当你发现人工智能发展到什么样一个程度，你觉得对不起，我要戛然而止了。什么程度？

刘聪：我觉得目前都还好，我对这个事情还是非常乐观。

蒋昌建：我的意思就是说你从一个工程师的角度出发，你发现它发展到什么样的程度，你觉得我推行下去，我作为一个工程师这样不行。

刘聪：您可能说的是不是类似于刚才讲的这种，有没有自己的意识之类的？

蒋昌建：嗯，对，是不是一旦它产生了自我意识，你就觉得要审慎了？

刘聪：对，但客观来说，站在我的角度，我一直表达过，其实跟刚刚张老师说的是一样的。在这里面不管是数据、产品，其实背后都是人。所以在我看来，短期我不会认为机器会自我产生意识，它是一种功能，这是我一直的一个观点。

蒋昌建：明白，那作为一个教育工作者，也作为一个法律工作者，我们今天有很多观众在看我们节目，我想问你我们应该以什么样的态度，当 AI大模型和 AI人工智能发展到今天，已经在社会、生活、工作、学习各个领域会产生巨大影响的当下，我们应该有什么样的态度去面对他？

张凌寒：拥抱它吧。就像当时汽车替代马车，纺织机代替工人，我们只能拥抱它，迎接它。

蒋昌建：您这个拥抱有几种方式，一种是半推半就，一种是双向奔赴，一种是迟疑犹豫不决。你觉得是什么？

张凌寒：我相信有智慧的人一定会奔向它，那么因为迟疑和半推半就是没有任何意义的。

梁晓声：我们今天在这个空间讨论的所有关于仿生大脑的问题。其实在 20年前我们从头看国外的一些关于机器人的作品中几乎全部都探讨过。那刚才您回答的那个问题，它其实有一个人类伦理的一个问题。我看到的最令我诧异的一部电影是《改造娇妻》，虽然妻子形体很美，但是可能性格不够好，脾气不够好，或者文化水平不够好，改造了，植入芯片了。

蒋昌建：我追问你，改造过了以后的这个娇妻，你会爱她吗？还像初见她的如此这般的爱她吗？

梁晓声：对。不但存在这一点，而且还有被改造者的人生权利遭到了极严重的侵犯。但是对于做丈夫的那些人，整个的一个村子都实行了这样的一个外科手术，所有的妻子们都有贵族般的修养，所有的谈吐都是极为优雅而且富于幽默感和哲理的。但是，她们已经不再是从前的自己了，所以我个人觉得我们确实还要考虑边界，还要考虑人类自身赖以维护我们代代相悉的这样的伦理学的一些价值观。

蒋昌建：是，三位都不约而同地谈到了AI大模型，人工智能本身就是人类智慧的一个结晶，但是它在向前奔跑的过程当中，我们一定要知道我们自己对它的判断是什么，是以及发展的边界到底是什么。文学总是充满了各种各样的畅想，现实总是给我们呈现出具体的一个又一个的问题，所以我们不妨让未来破解今天的问题。

梁晓声：我们都拭目以待。

蒋昌建：好，谢谢三位。

文字整理｜甫昕芮

微信排版｜甫昕芮

视频编辑｜黄晨 徐蕾洁，原始视频来源于世界智能大会官网

往期回顾